紐約市公立學校宣布禁用或停用逾38款未符合新安全標準的學生用人工智慧工具，包含曾被廣泛使用的閱讀輔導工具Amira和教育局自家的AI聊天機器人，但部分科技公司質疑其產品被誤判而登上禁令名單。
紐約市公立學校近日宣布，對面向學生的「人工智慧（AI）工具」實施新的限制措施。市長佐赫蘭·馬姆達尼表示，超過38款先前獲准使用的程式，因未能符合新的安全與監督標準，其AI組件將被停用或直接禁用。
紐約市教育局的發言人奧尼卡·理查茲指出，這些限制主要針對具有生成式AI功能的學生端工具，而非全面禁用所有相關產品。她強調，當局將持續評估不斷演進的AI技術，以確保其應用符合學生保護、個人需求及教育優先原則。然而，部分被列入禁令的科技公司對此表示異議，稱其產品並未採用政策所禁止的AI類型，不清楚為何會被標記。
許多公司在禁令宣布後迅速調整，例如提供學生評估工具的 All In Learning 公司，在宣布後立即停用了其AI評分功能，並獲准繼續在紐約市的百餘所學校營運。Magma Math 是一家提供AI生成提示的數位數學教學平台，也停用了其AI組件，並於10月5日獲得教育局的許可，得以繼續運作。Magma Math 的執行長 Henrik Appert 提到，他們也推出了數學問題的紙本版本，並強調公司重視學生與教師之間的互動。
然而，並非所有情況都能順利調整。例如，在紐約市逾200所學校使用的AI閱讀輔導工具 Amira，就因為官方認定其核心功能無法脫離AI運作而被全面禁用。此外，紐約市教育局去年在六所學校部署、與微軟合作開發的 AI 聊天機器人「教學助理」，也在此波禁令中被停用。Wordly 是一款為英語學習者設計的翻譯工具，儘管公司聲稱其並未使用生成式AI，且政策中對英語學習工具設有豁免條款，仍遭到教育局的標記。教育出版商霍頓・米夫林・哈考特（HMH）的多項產品，包括閱讀程式 Read180 和 Arriba la Lectura，也榜上有名，但 HMH 方面堅稱其產品沒有面向學生的AI功能。
這些全面的新限制措施，以及背後的審核機制，引發了外界的質疑。教育科技評論家萊奧妮·海姆森警告，不應輕信企業對於AI功能的說法，並呼籲紐約市教育局應建立更全面、透明的審核流程，來獨立評估這些產品。